#MoE модели

Модели Mixture-of-Experts активируют только части сети, что позволяет создавать огромные модели с эффективным использованием вычислений. Эта технология меняет подход к задачам в области языка, зрения и рекомендаций.

Alibaba представила Qwen3 — новое поколение больших языковых моделей с гибридным рассуждением, многоязычной поддержкой и эффективным масштабированием, задающее новые стандарты в производительности AI.